Oleh kerana kecerdasannya, seorang ulama di Padang Rengas membawa beliau ke kampungnya, kemudian menikahkannya dengan anak perempuannya, Sariyah binti Haji Said (1922). Tiga bulan kemudian Haji Said mengirim menantunya, Juned belajar ke Universiti al-Azhar di Mesir. Turut bersama beliau ke Mesir ialah iparnya, Haji Husin Said, dan Haji Mohd Zain Haji Noh. Menurut Datuk Asri, pada masa itu isterinya sedang mengandungkan anaknya yang pertama. Pertemuan beliau dengan puterinya yang pertama ini berlaku di Mekah.

Selama di Mesir beliau bukan hanya mencari ilmu tetapi juga berkecimpung di dalam pergerakan pelajar Indonesia-Malaya. Mesir pada waktu itu sedang bergolak menentang penjajahan. Juga sedang berkembang fahaman "pembaharuan" Muhammad Abduh-Rasyid Ridha. Hal ini menanamkan semangat menentang penjajahan, yang kelak dibawanya pulang ke negerinya.

Beliau amat tertarik dengan institusi wakaf dan pentadbirannya, sehingga mampu membiayai sebuah universiti yang besar seperti al-Azhar. Beliau amat berminat dengan wakaf. Minatnya itu kemudiannya mendorongnya untuk menulis sebuah buku kecil dengan judul Kaifiat mengadakan Wakaf, yang dicetak oleh Al-Mathba'ah Al-Marbawiyah dekat Universiti Al-Azhar, Mesir pada tahun 1929 (1348H), dengan kata pengantar oleh Syeikh Idris al-Marbawi yang terkenal di seluruh negara yang berbahasa Melayu di Asia Tenggara kerana kamus Arab-Melayunya yang dikenali dengan nama Kamus al-Marbawi. Kamus ini ialah antara kamus Arab-Melayu yang terawal. Syeikh Juned turut membantu melengkapkan Kamus al-Marbawi.

Sebelum pulang ke tanah air Syeikh Juned sempat juga belajar kepada Syeikh Abdul Kadir al-Mandili, salah seorang guru di Masjidil Haram pada ketika itu.

Dalam tahun 1926, Syeikh Juned kembali ke tanah air, bersama isterinya Sariyah Haji Said dan puteri pertamanya, Sakinah Junid (sekarang dikenali sebagai Cik Kinah atau Datin Sakinah Junid, isteri kepada Datuk Asri). Tidak berapa lama kemudian isterinya, Sariyah meninggal dunia. Dalam tahun 1927, beliau mengahwini seorang lagi puteri Haji Said, bernama Siti Hajar Haji Said. Dalam tahun 1934, beliau mengahwini lagi seorang isteri di Tapanuli Selatan bernama Rokiah Haji Ibrahim.